Ngày 19 tháng 7, Thiên Kinh thất thủ, lòng người tan rã, bọn Văn Quang trước sau đánh bại quan quân ở các nơi La Sơn thuộc Hà Nam và Quang Sơn thuộc Hồ Bắc, nhưng không thể xoay chuyển cục diện. Thượng tuần tháng 11, quân Thái Bình của Trần Đắc Tài thua trận tại Hoắc Sơn thuộc Hoàn Bắc, bọn Mã Dung Hòa đầu hàng triều đình, Lam Thành Xuân bị bắt và bị giết, Đắc Tài uống thuốc độc tự sát, tình thế nguy ngập. Nhằm thoát khỏi vòng vây của quan quân đang dần khép lại, ông đưa bộ hạ từ Vân Mộng nhắm đến Ngạc Bắc, rồi dần dần hội họp với tàn quân đột vây từ Hoắc Sơn. Thượng tuần tháng 12, Văn Quang đánh bại Tăng Cách Lâm Thấm ở Tương Dương, rồi liên hiệp với quân Niệp của Trương Tông Vũ nhắm đến Dự Nam.

Hoàn cảnh khó khăn đã buộc các tướng sĩ quân Thái Bình và quân Niệp bàn đến giải pháp liên hiệp nhằm chống lại cường địch. Hạ tuần tháng 11, quân Thái Bình của bọn Văn Quang và quân Niệp của bọn Trương Tông Vũ hợp nhất toàn lực lượng, biên chế mới đội ngũ, tổ chức Tân Niệp quân tại giao giới Dự - Ngạc. Ông được đề cử làm thủ lĩnh. Bọn họ vẫn dùng niên hiệu và phong hiệu của Thái Bình Thiên Quốc. Tân Niệp quân căn cứ đặc điểm địa hình của phương bắc, tăng kỵ binh, giảm bộ binh, nhằm nâng cao khả năng cơ động của đội ngũ.

Ngày 12 tháng 12, quân Niệp Mới đánh bại quan quân của Tăng Cách Lâm Thấm ở Đường Pha thuộc Đặng Châu, Hà Nam. Hạ tuần tháng giêng (1865, vẫn còn trong năm Âm lịch), lại đánh bại quân của Tăng ở Lỗ Sơn, chém chết bọn thống lĩnh Hằng Linh, phó đô thống Thư Luân Bảo. Văn Quang thừa thắng tận dụng khả năng lưu động của nghĩa quân, đông áp sát huyện Diệp, bắc đi qua Tương Thành, đội gió tuyết nhắm đến Tân Trịnh, Úy Thị; sau tiêu diệt quan quân ở phụ cận Yên Lăng, lại nam hạ các nơi Tây Bình, Nhữ Dương (nay là Nhữ Nam), Chánh Dương, Tín Dương. Quan quân vừa đến Tín Dương, nghĩa quân lại đi lên phía bắc, vượt qua Hứa Châu, Tuy Châu, từ Khảo Thành vào Sơn Đông.

Nghĩa quân vòng vo quanh quẩn ở các nơi Tào Châu, Tế Ninh Châu, Duyện Châu, Nghi Châu thuộc Lỗ Nam và Hải Châu thuộc Giang Tô, khiến quan quân đuổi theo vất vả. Ngày 10 tháng 5 năm thứ 4 (1865), nghĩa quân từ Vấn Thượng thuộc Sơn Đông vượt Vận Hà, đi qua huyện Phạm (nay là huyện Phạm, địa cấp thị Bộc Dương, Hà Nam), Bộc Châu, Vận Thành ở phía tây, đến được Gia Mật Trại, Hác Hồ Đồng, Cao Lâu Trại (còn gọi là Cao Trang Tập) thuộc huyện Hà Trạch, Tào Châu, tham gia sắp đặt binh mã đợi truy binh. Ngày 18, quan quân của Tăng Cách Lâm Thấm rơi vào ổ mai phục, chủ tướng Tăng Cách Lâm Thấm và nhiều tướng lĩnh cùng hơn 7000 quan quân bị tiêu diệt, quân Niệp Mới giành được thắng lợi vẻ vang nhất trong lịch sử đấu tranh của phong trào.